La Lezione 5 segna una svolta fondamentale in COMP5511. Ci stiamo allontanando dalla logica deterministica dell'informatica classica e dalla certezza supervisionata dei primi modelli di classificazione, per entrare nel cuore probabilistico della GenAI. In questa sessione esploriamo perché i modelli AI moderni non producono "fatti" ma piuttosto distribuzioni di probabilità, scoprendo i meccanismi che permettono ai LLM di scrivere poesie e ai modelli di diffusione di dipingere partendo dal rumore.

1. Il Cambiamento di Paradigma: Dalla Logica alla Probabilità

• Oltre IF-THEN: Passare da regole rigide a fluidi criteri di verosimiglianza statistica.
• La Fine della Certezza: Capire perché i risultati della GenAI sono non-deterministici per progettazione.
• La Probabilità come Strumento: Come l'"Era della GenAI" considera l'incertezza come una funzionalità per la creatività, piuttosto che un difetto da correggere.

2. I Motori Probabilistici della Creazione

La GenAI si basa sul campionamento da spazi di probabilità ad alta dimensionalità. Che si tratti di generare testo o immagini, il modello naviga l'incertezza per produrre novità:

• Modelli Linguistici di Grande Dimensione (LLM): Prevedere il token successivo non come una singola scelta, ma come una distribuzione di possibilità.
• Modelli di Diffusione: L'arte di ricostruire l'ordine dal caotico rumore gaussiano.
• Il Processo di Campionamento: Come la casualità viene sfruttata per evitare output ripetitivi e "robotici".

3. Agenti in Mondi Imprevedibili

Gli Agenti Autonomi devono navigare ""Mondi Aperti" dove ogni azione comporta un grado di rischio e ricompensa sconosciuti.